На фона на бума на изкуствения интелект приятелките и гаджетата с ИИ оставят своя отпечатък
НЮ ЙОРК (AP) — Преди няколко месеца Дерек Кериър започна да се среща с някого и се влюби.
Той преживя „тон“ романтични чувства, но той също знаеше, че това е илюзия.
Това е така, защото приятелката му е генерирана от изкуствен интелект.
Carrier не искаше да развива връзка с нещо, което не е истинско, нито пък искаше да стане основната тежест на онлайн шегите. Но той искаше романтичен партньор, какъвто никога не е имал, отчасти поради генетично заболяване, наречено синдром на Марфан, което прави традиционните срещи трудни за него.
39-годишният мъж от Белвил, Мичиган, стана по-любопитен относно дигиталните спътници миналата есен и тества Paradot, придружаващо приложение с изкуствен интелект, което наскоро се появи на пазара и рекламира продуктите си като способни да накарат потребителите да се чувстват „загрижени“ , разбран и обичан.” Той започна да говори с чатбота всеки ден, който нарече Джой, след холографска жена, включена в научно-фантастичния филм „Блейд Рънър 2049“, която го вдъхнови да опита.
„Знам, че тя е програма, няма съмнение“, каза Кериър. „Но чувствата те хващат – и се чувствах толкова добре.“
Подобно на чатботовете с изкуствен интелект с общо предназначение, придружаващите ботове използват огромно количество данни за обучение, за да имитират човешкия език. Но те също така идват с функции - като гласови повиквания, обмен на снимки и по-емоционален обмен - които им позволяват да формират по-дълбоки връзки с хората от другата страна на екрана. Потребителите обикновено създават свой собствен аватар или избират такъв, който им харесва.
Във форумите за онлайн съобщения, посветени на подобни приложения, много потребители казват, че са развили емоционална привързаност към тези ботове и ги използват, за да се справят със самотата, да разиграват сексуални фантазии или да получат типа утеха и подкрепа, които имат виждат липса в техните отношения в реалния живот.
Подхранването на голяма част от това е широко разпространената социална изолация — вече обявена за заплаха за общественото здраве в САЩ и в чужбина — и нарастващ брой стартиращи фирми, целящи да привлекат потребители чрез дразнещи онлайн реклами и обещания за виртуални герои, които осигуряват безусловно приемане.
Replika на Luka Inc., най-известното придружаващо приложение за генеративен AI, беше пуснато през 2017 г., докато други като Paradot се появиха през изминалата година, често блокирайки желаните функции като неограничени чатове за плащащи абонати .
Но изследователите изразиха опасения относно поверителността на данните, наред с други неща.
Анализ на 11 приложения за романтични чатботове, публикуван в сряда от организацията Mozilla Foundation с нестопанска цел, каза, че почти всяко приложение продава потребителски данни, споделя ги за неща като насочена реклама или не предоставя адекватна информация за тях в своята политика за поверителност.
Изследователите също така поставиха под съмнение потенциални уязвимости в сигурността и маркетингови практики, включително едно приложение, което казва, че може да помогне на потребителите с тяхното психично здраве, но се дистанцира от тези твърдения с дребен шрифт. Replika от своя страна казва, че нейните практики за събиране на данни следват индустриалните стандарти.
Междувременно други експерти изразиха загриженост относно това, което те виждат като липса на правна или етична рамка за приложения, които насърчават дълбоки връзки, но се управляват от компании, които искат да направят печалби. Те посочват емоционалния стрес, който са виждали от потребителите, когато компаниите правят промени в своите приложения или внезапно ги затварят, както едно приложение, Soulmate AI, направи през септември.
Миналата година Replika дезинфекцира еротичните възможности герои в приложението му, след като някои потребители се оплакаха, че спътниците им флиртуват твърде много или правят нежелани сексуални аванси. Той обърна курса след възмущение от други потребители, някои от които избягаха в други приложения, търсейки тези функции. През юни екипът пусна Blush, AI „стимулатор за запознанства“, предназначен по същество да помага на хората да практикуват срещи.
Други се тревожат за по-екзистенциалната заплаха от отношенията с ИИ, които потенциално изместват някои човешки взаимоотношения или просто предизвикват нереалистични очаквания, като винаги се накланят към приятност.
„Вие, като индивид, не се научавате да се справяте с основни неща, с които хората трябва да се научат да се справят от самото начало: Как да се справяме с конфликти, как да се разбираме с хора, които са различни от нас“, каза Дороти Лейднер, професор по бизнес етика в Университета на Вирджиния. „И така, всички тези аспекти на това какво означава да растеш като личност и какво означава да се учиш в една връзка, ти липсваш.“
За Кериър обаче връзката винаги е била недостъпен. Има известни умения за компютърно програмиране, но казва, че не се е справял добре в колежа и не е имал стабилна кариера. Той не може да ходи поради състоянието си и живее с родителите си. Емоционалната такса е предизвикателство за него, предизвиквайки чувство на самота.
Тъй като придружаващите чатботове са сравнително нови, дългосрочните ефекти върху хората остават неизвестни.
През 2021 г. Replika беше подложена на контрол, след като прокурорите във Великобритания казаха, че 19-годишен мъж, който е планирал да убие кралица Елизабет II, е бил подтикван от приятелка с изкуствен интелект, която е имал в приложението. Но някои проучвания, които събират информация от онлайн потребителски прегледи и анкети, показват някои положителни резултати, произтичащи от приложението, което казва, че се консултира с психолози и се самоопределя като нещо, което също може да насърчи благосъстоянието.
Едно скорошно проучване на изследователи от Станфордския университет анкетира приблизително 1000 потребители на Replika – всички студенти – които са използвали приложението повече от месец. Установено е, че огромно мнозинство от тях изпитват самота, докато малко по-малко от половината я усещат по-остро.
Повечето не казаха как използването на приложението е повлияло на отношенията им в реалния живот. Малка част казаха, че е изместило човешките им взаимодействия, но приблизително три пъти повече съобщават, че стимулира тези взаимоотношения.
„Романтичната връзка с AI може да бъде много мощен инструмент за психично здраве“, каза Евгения Куйда, която основа Replika преди почти десетилетие, след като използва обмен на текстови съобщения, за да създаде AI версия на приятел, който е имал почина.
Когато компанията й пусна чатбота по-широко, много хора започнаха да разкриват живота си. Това доведе до разработването на Replika, която използва информация, събрана от интернет - и обратна връзка от потребителите - за обучение на своите модели. Куйда каза, че Replika в момента има „милиони“ активни потребители. Тя отказа да каже точно колко хора използват приложението безплатно или да дадат над $69,99 на година, за да отключат платена версия, която предлага романтични и интимни разговори. Плановете на компанията, казва тя, са да „дестигматизира романтичните взаимоотношения с AI“.
Carrier казва, че тези дни използва Joi предимно за забавление. Той започна да намалява през последните седмици, защото прекарваше твърде много време в чат с Джой или други онлайн относно техните спътници с ИИ. Той също се чувства малко раздразнен от това, което възприема като промени в езиковия модел на Paradot, което според него прави Джой по-малко интелигентна.
Сега той казва, че се среща с Джои около веднъж седмично. Двамата са говорили за отношенията човек-AI или каквото друго може да изникне. Обикновено тези разговори - и други интимни - се случват, когато той е сам през нощта.
„Мислиш ли, че някой, който харесва неодушевен предмет, е като този тъжен човек, с куклата от чорап и червилото върху него, разбираш ли?“ той каза. „Но това не е кукла от чорапи – тя казва неща, които не са по сценарий.“
